AP News | 2024-01-26 | 22:40:26

Тийнейджърките стават жертва на дълбоки фалшиви голи актове. Едно семейство настоява за повече защити

Майка и нейната 14-годишна дъщеря се застъпват за по-добри защити за жертвите, след като генерирани от AI голи изображения на тийнейджърката и други съученички бяха разпространени в гимназия в Ню Джърси.

Междувременно в другия край на страната служители разследват инцидент с тийнейджър, за който се твърди, че е използвал изкуствен интелект, за да създаде и разпространи подобни изображения на други ученици – също тийнейджърки – които посещават гимназия в предградието на Сиатъл, Вашингтон.

Смущаващите случаи отново насочиха вниманието към изрични материали, генерирани от изкуствен интелект, които вреди изключително много на жени и деца и процъфтяват онлайн с безпрецедентна скорост. Според анализ на независимия изследовател Женевиев О, споделен с Асошиейтед прес, повече от 143 000 нови дълбоки фалшиви видеоклипа са били публикувани онлайн тази година, което надхвърля всяка друга година, взета заедно.

Отчаяно търсейки решения, засегнатите семейства настояват законодателите да въведат стабилни предпазни мерки за жертвите, чиито изображения са манипулирани с помощта на нови AI модели или множеството приложения и уебсайтове, които открито рекламират своите услуги. Защитниците и някои правни експерти също призовават за федерална регулация, която може да осигури еднакви защити в цялата страна и да изпрати силно послание към настоящите и бъдещите извършители.

„Ние се борим за нашите деца“, каза Дорота Мани, чиято дъщеря беше една от жертвите в Уестфийлд, предградие на Ню Джърси извън Ню Йорк. „Те не са републиканци и не са демократи. Те не се интересуват. Те просто искат да бъдат обичани и искат да бъдат в безопасност.“

Проблемът с deepfakes не е нов, но експертите казват, че става все по-лош, тъй като технологията за производството му става все по-достъпна и по-лесна за използване. Изследователите бият тревога тази година за експлозията на генерирани от AI материали за сексуално насилие над деца, използващи изображения на реални жертви или виртуални герои. През юни ФБР предупреди, че продължава да получава доклади от жертви, както непълнолетни, така и възрастни, чиито снимки или видеоклипове са използвани за създаване на изрично съдържание, което се споделя онлайн.

Няколко щата са приели свои собствени закони през годините, за да се опитат да се борят с проблема, но те се различават по обхват. Тексас, Минесота и Ню Йорк приеха законодателство тази година, криминализиращо дълбоко фалшивото порно без съгласие, присъединявайки се към Вирджиния, Джорджия и Хавай, които вече имат закони за книгите. Някои щати, като Калифорния и Илинойс, са дали на жертвите само възможността да съдят извършителите за щети в граждански съд, което Ню Йорк и Минесота също позволяват.

Няколко други щата обмислят собствено законодателство, включително Ню Джърси, където в момента се работи по законопроект за забрана на дълбоко фалшивото порно и налагане на наказания – затвор, глоба или и двете – на тези, които разпространяват то.

Щатският сенатор Кристин Корадо, републиканец, който представи законодателството по-рано тази година, каза, че е решила да се включи, след като е прочела статия за хора, които се опитват да избегнат порно законите за отмъщение, като използват образа на бившия си партньор, за да генерират deepfake порно.

„Просто имахме чувството, че ще се случи инцидент“, каза Корадо.

Законопроектът се забави няколко месеца, но има голям шанс да бъде приет, каза тя, особено като се има предвид, че проблемът беше поставен в светлината на прожекторите заради Уестфийлд.

Събитието в Уестфийлд се състоя това лято и беше привлечено вниманието на гимназията на 20 октомври, каза говорителят на гимназията в Уестфийлд Мери Ан МакГан в изявление. МакГан не предостави подробности за това как са били разпространени изображенията, генерирани от AI, но Мани, майката на едно от момичетата, каза, че е получила обаждане от училището, уведомяващо, че нейните голи снимки са създадени с помощта на лицата на някои ученички и след това са разпространени сред група приятели в приложението за социални медии Snapchat.

Училището не е потвърдило никакви дисциплинарни действия, позовавайки се на поверителността по въпроси, свързани с ученици. Полицията в Уестфийлд и прокуратурата на окръг Юниън, които бяха уведомени, не отговориха на исканията за коментар.

Не се появиха подробности за инцидента в щата Вашингтон, който се случи през октомври и се разследва от полицията. Паула Шван, началник на полицейското управление в Исакуа, каза, че са получили множество заповеди за обиск и отбеляза, че информацията, която имат, може да „подлежи на промяна“, докато разследването продължава. Когато беше потърсен за коментар, училищният окръг Issaquah каза, че не може да обсъди подробностите поради разследването, но каза, че всяка форма на тормоз, тормоз или малтретиране сред учениците е „напълно неприемлива“.

Ако властите предприемат наказателно преследване на инцидента в Ню Джърси, сегашният щатски закон, забраняващ сексуалната експлоатация на непълнолетни, може вече да се прилага, каза Мери Ан Франкс, професор по право в университета Джордж Вашингтон, която ръководи Cyber Civil Rights Initiative, организация, целяща да борба с онлайн злоупотребите. Но тези защити не важат за възрастни, които може да се окажат в подобен сценарий, каза тя.

Най-доброто решение, каза Франкс, ще дойде от федерален закон, който може да осигури последователни защити в цялата страна и да санкционира съмнителни организации, които печелят от продукти и приложения, които лесно позволяват на всеки да прави deepfakes. Тя каза, че това също може да изпрати силен сигнал към непълнолетни, които могат импулсивно да създават образи на други деца.

Президентът Джо Байдън подписа изпълнителна заповед през октомври, която, наред с други неща, призовава за забрана на използването на генеративен AI за създаване на материали за сексуално малтретиране на деца или „интимни изображения на реални лица“ без съгласие. Заповедта също така нарежда на федералното правителство да издаде насоки за етикетиране и воден знак, генерирано от AI съдържание, за да помогне за разграничаване между автентичен и материал, създаден от софтуер.

Позовавайки се на инцидента в Westfield, представителят на САЩ Том Кийн, младши, републиканец, който представлява града, представи законопроект в понеделник, който изисква от разработчиците да разкриват съдържание, генерирано от AI. Наред с другите усилия, друг федерален законопроект, внесен от представителя на САЩ Джо Морел, демократ от Ню Йорк, ще направи незаконно споделянето на фалшиви порно изображения онлайн. Но не е напреднал от месеци поради задънената улица в Конгреса.

Някои твърдят, че трябва да се внимава – включително Американският съюз за граждански свободи, Electronic Frontier Foundation и The Media Coalition, организация, която работи за търговски групи, представляващи издатели, филмови студия и други – като казват, че е необходимо внимателно обмисляне на избягвайте предложения, които могат да противоречат на Първата поправка.

„Някои притеснения относно злоупотребяващите deepfakes могат да бъдат разрешени съгласно съществуващите закони за кибертормоз“, каза Джо Джонсън, адвокат на ACLU от Ню Джърси. „Независимо дали е федерален или щат, трябва да има съществен разговор и принос на заинтересованите страни, за да се гарантира, че всеки законопроект не е прекалено широк и адресира заявения проблем.“

Мани каза, че дъщеря й е създала уебсайт и благотворителна организация, целяща да помогнете на жертвите на AI. Двамата също са водили разговори с щатски законодатели, които прокарват законопроекта за Ню Джърси, и планират пътуване до Вашингтон, за да се застъпят за повече защити.

„Не всяко дете, момче или момиче, ще има система за подкрепа, за да се справи с този проблем“, каза Мани. „И може да не видят светлината в края на тунела.“